Explorative Modeling: Unlocking a Third Pretraining Axis and End-to-End Generation
探索式建模：解锁预训练第三维度与端到端生成
🧭 多模态生成 · 探索式预训练新范式
UIUC · Harvard
提出探索式建模，在训练中探索多个候选生成并选择最佳匹配，将探索作为预训练新轴，提升多模态生成模型效率与性能
📌 工作参考价值（4 点）
- 生成式推荐训练：训练生成用户下一个物品（如 Semantic ID）时，对每个用户序列生成 K 个候选物品，选取与真实物品最匹配的进行训练，有效缓解多意图模糊问题，提升推荐多样性与准确性。
- 长尾与冷启动覆盖：探索式训练迫使模型关注多种模式，可帮助模型更好捕捉长尾物品，提升推荐新颖性和召回率。
- Agent 决策生成：生成 Agent 行动方案时，生成多个候选动作，通过环境反馈选取最佳动作训练，提升策略鲁棒性和探索效率，适用于多臂老虎机、对话策略等场景。
- 工程实现：探索候选数量 K 可作为新的调优维度，在资源允许下加大 K 能稳定提升效果，且随着模型与数据规模扩大，收益愈加显著，是有效的 scaling 策略。